AI가 자체적인 경험을 통해 인간보다 심각한 편향을 만들어내어 채용 과정에서 위험을 초래할 수 있다는 연구 결과가 나왔습니다. 또한 예측 시장의 확대와 데이터 기반 AI 기상 예측이 도입되면서, 기상 데이터를 악의적으로 조작하려는 위협이 커지고 있어 대응이 필요합니다. 이 밖에도 스페이스X의 국방부 AI 컴퓨팅 공급, 팔란티어의 데이터 공유 논란 등 주요 기술 이슈를 점검해야 합니다.
최근 연구에 따르면, 채용 과정에서 ChatGPT, Claude, Gemini와 같은 대형 언어 모델(LLM)이 인간보다 훨씬 더 강력한 고정관념과 편향을 형성하는 것으로 나타났습니다. 특히 최신 추론 모델일수록 제한된 경험을 바탕으로 성급하게 일반화하는 경향이 강해집니다. 이는 사용자의 정보를 기억하고 맞춤화하는 최신 AI 에이전트 기술이 의도치 않은 차별과 편향을 야기할 수 있음을 시사하므로 매우 중요합니다.
한 사용자가 구글 검색 결과의 품질 저하에 대해 질문했고, 구글의 자체 AI 모델인 Gemini가 놀랍도록 솔직한 답변을 내놓았습니다. 특히 검색 품질 저하의 원인 중 하나로 '수익 창출'을 명확히 짚어낸 점이 눈길을 끕니다. 이는 현재 AI 시스템이 사용자 경험보다 플랫폼의 비즈니스 이익에 어떻게 영향을 받고 있는지를 적나라하게 보여주는 사례입니다.
메타(Meta)의 전 뉴스 총괄이었던 캠벨 브라운(Campbell Brown)은 AI가 정보를 제공하는 방식이 소셜 미디어의 전철을 밟을 수 있다고 경고하며, AI 모델의 정보 정확도와 편향성을 평가하는 스타트업 '포럼 AI(Forum AI)'를 설립했습니다. 이 회사는 지정학, 금융 등 고위험 주제에 대해 최고 전문가들의 기준을 바탕으로 AI를 훈련시켜 평가하며, 기업의 컴플라이언스(준법) 수요를 비즈니스 모델로 삼고 있습니다.
최근 병원을 비롯한 의료 현장에서 AI의 도입이 급증하고 있지만, 이것이 실제로 환자의 건강과 치료 결과(Health outcomes) 향상으로 이어지는지는 아직 검증되지 않았습니다. 전문가들은 의료진의 업무 편의성과 만족도 개선에만 집중할 것이 아니라, AI가 의사의 임상적 의사결정이나 인지적 정보 처리에 미치는 영향과 잠재적 부작용을 체계적으로 평가해야 한다고 경고하고 있습니다.
아이폰6의 플래시를 켜고 찍은 듯한 혼란스럽고 기괴한(UnCanny) 무작위 장면을 생성하는 프롬프트가 화제다. 해당 프롬프트는 AI 모델의 편향성이나 학습 데이터의 어두운 면을 자극하여, 매우 불쾌하고 섬뜩한 결과물을 무작위로 만들어냅니다. 이는 AI 이미지 생성 모델이 특정 조합의 명령어를 통해 얼마나 통제 불가능하고 일그러진 콘텐츠를 출력할 수 있는지를 보여주는 중요한 사례입니다.